Tuy nhiên đây không phải là lần đầu tiên các nhà Đại quý tộc Pháp và các đội quân hiệp sĩ được đào tạo rất tốt của họ tiến hành các cuộc hành trình hướng về Jerusalem. Giáo hoàng Urban đã lên kế hoạch xuất phát cho cuộc thập tự chinh đầu tiên vào ngày 15 tháng 8 năm 1096, đây là ngày Lễ Đức Mẹ Lên Trời, nhưng nhiều tháng trước sự kiện này, một số đội quân không được tính tới của nông dân và các quý tộc nhỏ đã khởi hành đi Jerusalem vào các ngày của riêng họ, do một linh mục có sức lôi cuốn được gọi là Peter Hermit dẫn đầu. Peter là người thành công nhất trong các nhà truyền giáo khi truyền đạt thông điệp của Giáo hoàng Urbanô và phát triển thành một sự nhiệt tình gần như cuồng loạn giữa các con chiên của ông, mặc dù có lẽ ông này không phải là một truyền giáo "chính thức" được cho phép bởi Giáo hoàng Urbanô tại Clermont.[35] Một thế kỷ sau ông này đã trở thành một nhân vật huyền thoại; William xứ Tyre tin rằng Peter chính là người đã khuấy lên ý tưởng về các cuộc thập tự chinh trong tâm trí của Urbanô.[36][37] Người ta cho rằng Peter đã dẫn đầu một nhóm lớn gồm các nông dân chưa qua đào tạo quân sự và mù chữ, nhiều người thậm chí không có bất kỳ ý tưởng gì về Jerusalem, nhưng thực sự cũng có nhiều hiệp sĩ trong số các nông dân, bao gồm cả Walter Sans Avoir, người là Trung úy của Peter và dẫn đầu một đội quân riêng.[38][39]

Cuộc tấn công vào người Do Thái trong vùng Rheinland

Ở cấp địa phương, các rao giảng về cuộc Thập tự chinh đầu tiên đã châm ngòi cho các bạo lực nhằm vào những Người Do Thái, mà một số sử gia đã coi là "Holocaust đầu tiên".[40] Vào cuối năm 1095 và đầu 1096, vài tháng trước khi cuộc thập tự chinh chính thức xuất phát vào tháng 8, đã có các cuộc tấn công vào các cộng đồng người Do Thái ở Pháp và Đức. Trong tháng 5 năm 1096, Emicho xứ Flonheim (Đôi khi được gọi không chính xác là Emicho xứ Leiningen) đã tấn công người Do Thái tại Speyer và Worms. Các Thập tự quân không chính thức khác từ Schwaben, do Hartmann xứ Dillingen chỉ huy cùng với người Pháp, người Anh, người Lotharingian và tình nguyện viên người Flemish, do Drogo xứ Nesle và William Carpenter chỉ huy, cũng với nhiều người dân địa phương, tham gia cùng với Emicho trong việc tiêu diệt cộng đồng Do Thái xứ Mainz vào cuối tháng.[41] Tại Mainz, một người phụ nữ Do Thái thà tự tay giết chết các con của mình còn hơn là nhìn thấy chúng bị giết chết; vị thủ lĩnh tôn giáo Do Thái, Kalonymus Ben Meshullam, đã tự sát để khỏi bị giết chết.[42]

Sau đó đội quân của Emicho đã tiến vào Cologne và những người khác tiếp tục đi tới Trier, Metz, và các thành phố khác.[43] Ẩn sĩ Peter có thể đã tham gia vào những vụ bạo lực nhằm vào những người Do Thái và một đội quân được dẫn đầu bởi một linh mục tên là Folkmar cũng tiếp tục tấn công vào người Do Thái ở phía đông Bohemia.[44] Cuối cùng đội quân của Emicho tiếp tục tiến vào Hungary nhưng đã bị đánh bại bởi quân đội của Coloman xứ Hungary. Những người đi theo ông ta bị phân tán, một số cuối cùng đã gia nhập đội quân Thập tự chinh chính, mặc dù bản thân Emicho lại đi về nhà.[43]

Nhiều người trong số những kẻ tấn công có vẻ như đã muốn ép buộc người Do Thái phải chuyển đổi đức tin, mặc dù họ cũng thích lấy được tiền từ người Do Thái. Bạo lực đối với người Do Thái chưa bao giờ là một phần của chính sách thập tự chinh chính thức của nhà thờ và các Giám mục Thiên chúa giáo, đặc biệt là Đức Tổng Giám mục Köln, đã làm hết sức mình để bảo vệ người Do Thái. Tuy nhiên, một số người trong số họ cũng nhận tiền để đổi lấy sự bảo vệ của họ. Các cuộc tấn công có thể đã bắt nguồn từ niềm tin rằng người Do Thái và người Hồi giáo đều là kẻ thù của Chúa Kitô và kẻ thù phải bị đánh đuổi hoặc phải chuyển đổi sang Kitô giáo. Godfrey xứ Bouillon đã tống tiền của người Do Thái ở các xứ Köln và Mainz và có rất nhiều các Thập tự quân đã tự hỏi tại sao họ phải đi hàng ngàn dặm để chiến đấu với bọn dị giáo trong khi chúng lại ở ngay gần nhà của họ.[45] Các cuộc tấn công vào người Do Thái đã được chứng kiến Ekkehard xứ Aura và sử gia đương thời là Albert xứ Aix; Giữa các cộng đồng người Do Thái, các nhân chứng đương thời là Người vô danh xứ Mainz, Eliezer ben Nathan và Solomon bar Simson.